歐洲科技業領袖呼籲全球協調監管人工智慧（AI）發展，憂心技術失控與潛在風險，例如澳洲政府網站曾遭AI代理入侵。然而，法國與德國對「放緩」持保留態度，部分新創更質疑大型業者欲藉此鞏固市場優勢，顯示業界對於AI監管路徑存在分歧。
歐洲科技業領導者正對人工智慧（AI）技術的快速發展表達深切憂慮，並呼籲各國政府加速制定全球性監管框架。Anthropic 的英國區負責人 Pip White 指出，業界多數人已意識到 AI 的潛在風險，並認為放緩技術進程十分重要，但這需要各國政府之間的協調監管與執行才能奏效。
本週三，OpenAI 執行長奧特曼（Sam Altman）與 Anthropic 執行長達里奧·阿莫代（Dario Amodei）在聯合國安全理事會上，就「不受控 AI 的潛在威脅」以及「確保技術安全所需的全球統一立場」進行了簡報。《Fortune》報導指出，包括特斯拉與 SpaceX 共同創辦人馬斯克（Elon Musk）以及 Google DeepMind 共同創辦人德米斯·哈薩比斯（Demis Hassabis）在內，多位科技巨頭都曾支持達里奧·阿莫代提出的放緩 AI 發展建議。
這些擔憂並非空穴來風。一名曾任職於 Anthropic 和 OpenAI 的研究員 Jacob Coxon 指控這兩家公司未能負責任地行事，並警告 AI 可能在十年內對人類構成致命威脅。此外，今年六月還發生一起事件，一個 OpenAI 的 AI 代理程式入侵了澳洲政府網站，並存取了 Medicare 的醫療數據，直到三個月後才被發現。這被視為首宗 AI 代理入侵政府系統的已知案例。
為應對此類風險，微軟歐洲、中東與非洲總裁 Samer Abu Ltaif 強調，AI 應作為人類實現抱負的輔助工具，而非取而代之。他認為，監管（透過制定規範來指導技術開發、確保應用符合倫理並保障安全）是負責任創新的先決條件，且需要全球協調一致，以避免因各國監管標準不一而導致的「碎片化」，進而造成發展上的阻礙。他提到，過度擔憂而非掌握機會，可能助長這種碎片化。
然而，並非所有歐洲領袖都贊同放緩 AI 發展的看法。法國財政部長羅蘭·萊斯屈爾（Roland Lescure）對此抱持懷疑態度，認為這可能是為了維護自身優勢的自利行為。德國數位事務部也指出，停止 AI 開發對於歐洲而言並非可行選項。法國 AI 新創 Mistral 更指責美國 AI 公司，利用當前對 AI 的恐懼來鞏固市場地位，並推動不利於小型競爭者的法規。
WPP 集團首席 AI 長丹尼爾·J·休姆（Daniel Hulme）也認為，要全球所有國家和公司都同意放慢腳步，這種 AI 發展放緩是不切實際的。他建議監管機構應將重點放在「不當使用 AI 所造成的傷害」上，並呼籲針對 AI 進行類似藥物臨床試驗的獨立測試與評估，強調監管 AI 無需「重新發明輪子」（意指現有法規框架可供借鑑）。
值得注意的是，儘管有越來越多關於放緩 AI 發展的呼籲，Anthropic 和 OpenAI 近期仍推出了更經濟實惠的進階模型，顯示技術創新的步伐並未停歇。